闫海 王洋：算法规制工具的功能悖论及其法治实现
作
者
简
介
闫海，辽宁大学法学院教授、博士生导师，法学博士
王洋，辽宁大学国家治理与法治研究中心助理研究员，辽宁大学法学院博士研究生
·摘要：
信息时代引发规制环境变迁，政府面临规制资源匮乏的窘境，公众的行权能力明显不足，数据资源被市场主体主导使用并塑造着信息社会的面貌和秩序，算法应当成为政府顺应时代挑战的规制工具之一。算法规制工具存在一系列功能悖论，诸如简化规制过程但忽视规制复杂性，减少规制的恣意但削弱法律决断的权威，避免人为规制错误但自身错误后果更严重，规制更精准但危及规制的公平性。为避免算法规制工具的功能悖论，应当适用平衡工具与人的主体性之间的关系、贯彻正当程序原则、严格审慎而不失灵活性的立法态度等法治要求，进而构建算法规制工具的内部优化和决策矫正的法治框架。
一、信息时代规制失灵的隐忧（一）规制环境变迁与规制资源匮乏（二）社会公众行权能力不足与公共数据沉寂（三）数据资源主导权竞争与规制学习二、算法的规制工具属性与功能悖论（一）算法的规制工具属性（二）算法规制工具的功能悖论
三、算法规制工具的法治要求四、算法规制工具的法治框架（一）算法规制工具的内部优化（二）算法规制工具的决策校正五、结语
随着大数据、人工智能和区块链等技术的迅速发展，人类社会正在步入“以算法为中心的智能社会法律秩序”。算法广泛介入乃至主导所引发的利益格局调整正在进行，算法日益成为利益分配的技术机制，正所谓“算法即权力”，算法的掌握者具备调整社会子系统运行和资源分布的能力。由于算法往往为私主体所享有，存在算法“私权力”无序扩张而侵害了公共利益和其他主体权益的现象，而既有研究则偏重于将算法视为规制对象，以矫正正义的视角探讨算法技术黑箱和权利滥用造成的个人知情权、个人信息权益损害及其歧视。其实，算法同时也是信息时代的先进生产力的重要标志之一，将之作为一项工具而被旨在实现公共目标的公共规制权力所运用，可以充分发挥算法在资源、利益分配中的正义价值。
2021年中共中央、国务院《法治政府建设实施纲要（2021-2025）》提出，“健全法治政府建设科技保障体系，全面建设数字法治政府”“善于运用大数据辅助行政决策、行政立法、行政执法工作。建立健全运用互联网、大数据、人工智能等技术手段进行行政管理的制度规则”。数字法治政府的建设是数据技术的公权化和法治化的过程。算法是一项联结大数据和规制决策的技术手段，将其作为一项适应信息时代要求的规制工具，以推进国家治理体系和治理能力现代化，应当成为法治政府建设的题中之义。
规制产生于以市场为中心的工业社会，政府作为社会公众的代理人，在法律授权下运用准入、标准、信息以及经济手段等一系列规制工具矫正信息失灵、外部性等市场失灵问题，以此实现安全、健康、环境等公共目标。20世纪，政府凭借行政执法权力和不断扩展的规制工具箱，尚能够应对科学技术发展带来的风险社会，也能基本满足公众服务和利益保障的公共需求。但是，进入信息时代后，算法、人工智能、区块链、物联网等新科技手段将作为载体的数据要素与传统要素融合，衍生出纷繁复杂的新技术、新产业、新业态、新模式，政府的规制任务愈发艰巨，规制资源不足、碎片化严重影响政府规制能力。
（一）规制环境变迁与规制资源匮乏
市场主体行为和风险因素在信息时代被高度数据化，给政府创设了“无形”的规制环境。数据化的表达和运用已经无处不在，一切人类活动的选择偏好和商品服务供应均获得数据表达，并被数据资源的掌控者所解析、整合、预测和支配，在2020年中共中央、国务院《关于构建更加完善的要素市场化配置体制机制的意见》中，数据已经与土地、劳动力、资本、技术并列为五大市场要素。与之同步，影响经济社会发展的风险因素虽然日益复杂多变，但亦能以数据形式表达、记录、追踪、预测和控制，进而为经济社会安全提供有力保障。例如，对于食品安全的风险因素可以进行从农田到餐桌全程的可溯源，餐饮品制作可以被智能摄像机追踪并在互联网上实时直播，消费者对食品和餐饮安全的信用评价也在第三方平台上汇集。由此可见，经济社会中的主体行为、风险因素乃至主观偏好选择都可以被数据化，现实的有形世界和数字化的虚拟世界平行于同一时空的坐标体系。
数据化创设的无形规制环境也造成规制规则、规制执法资源面临匮乏的窘境。现代政府的规制法律建立在工业社会的对有形生产要素及其产品、服务的充分认知和语言描述基础上。当生产要素被专利、标准的科学语言予以准确地界定，权属认定和交易规则可以被法律语言清晰描述，市场主体权利义务的界定、行使，乃至以此基础的社会性规制并非难解之题。进入信息时代，数据要素与土地、劳动力、资本、技术等要素结合，创造出崭新的交易客体及商业模式，也产生更具隐匿化的负外部性问题。立法者以法律语言描述数据形式的负外部性问题存在天然的障碍，由数据构成的无形世界已经超越现有法律、标准的界定和规范能力，立法者或者政策制定者对数据技术的陌生拉大了技术发展和法律规制之间的差距。此外，以数据为基础的算法只能为少数专业人士所掌握，这些有限的人力资源又高度集中在市场领域，要求政府的工作人员掌握庞大而复杂的数据分析和应用能力不切实际，因此政府与数据化的规制对象之间就存在无法逾越的知识鸿沟。
概言之，政府在工业社会所拥有的法律权力、专业技能在信息时代遭遇挑战，信息时代的社会性规制迫切要求政府从人工规制转向智慧规制，进一步扩展与数字技术相匹配的规制工具箱。
（二）社会公众行权能力不足与公共数据沉寂
在信息时代，一切规制对象和保护主体的身份、行为和风险因素都可以用数据表达和记录，这些数据广泛地分散于各类平台经营者和政府信息库当中。对市场主体而言，数据可以创造价值，这些在生产经营中获取的数据是自身重要的资产，对之进行整合、分析，并应用到商品、服务质量改良和精准营销中，可以为其创造更多经济价值。而对社会公众或者消费者个体而言，尽管数据由其产生并对之享有权利，但此权利仅停留在授权获取和防止侵犯的范围，故被称为以“防止损害权”为核心的数据权利体系。新类型的信息失灵同时产生并渐趋加剧，即公众不具备理解数据开发应用的能力，以及数据平台的垄断限制公众的选择，以致数据权利的实效倍受质疑。建立在个人理性认知和自愿选择基础上的数据控制、交易乃至救济机制呈现美好的秩序愿景，但由于相应行为能力的缺乏，难以通过私法秩序将数据转化为增进自身利益或者公共利益的资源。质言之，消费者创造了数字经济的原始生产资料，推动了算法和算力的优化，促进了商品、服务的产销精准化和资源配置优化，但在数据海洋中却无法实现“自立”，无法凭借自身行为维护、促进其数据权益。
职是之故，政府作为社会公众（消费者）代理人，应当运用与信息时代相匹配的算法规制工具参与市场主体的利益博弈。政府规制不仅存在维护信息时代弱势群体利益和公共利益的正当性基础，而且拥有广泛可利用的数据资源。政府透过规制活动从规制对象和公众处可以获取源源不断的数据，这些数据来自教育、医疗、金融、通信、商品和服务消费、公共安全、社会管理等广泛领域。较之私人主体，政府具有综合汇集规制各领域数据并进行整合、归纳和再利用的优势，但欠缺对数据加以整合利用的动力机制和技术支持。随着政府获取的政务数据与日剧增，这些数据本身可以被利用从而转变为庞大的公共数据资源，将之应用于政府的规制决策，可以更加精准地保障和增进公共利益。目前，我国公共数据的归集、共享和开放的制度设计尚停留于“占有”公共数据的层面，传统规制工具不足以将储存于政府数据库中的公共数据调动起来，无法为公共数据的使用、收益提供技术支持。为使公共数据资源化，避免公共数据沉寂或浪费，需要借助与公共数据资源相匹配的信息化、技术化的算法规制工具，通过制度化的设计推进政府对公共数据的动态化整合、分析和适用，将公共数据取之于民、用之于民，服务于保障弱势群体利益和公共利益。
（三）数据资源主导权竞争与规制学习
在信息时代，谁能够控制和利用数据资源，谁便掌握了塑造社会秩序和面貌的权力，凭借“数据资源主导权”牵动现实世界的发展变化。社会公众受限于自身行为能力，数据资源主导权力的争夺只能在市场主体和政府之间展开。市场主体的直接目的是为自身创造经济价值，在此过程中社会公众利益受到损害的防范和补救则是政府规制的目标之一，同时政府规制还承担利用数字公共资源促进社会公众安全、健康、环境保护等积极性职责。数据资源不是消耗品，市场主体和政府可以同时利用而不减损其价值，局部经济利益和整体公共利益可以并行不悖。数据资源主导权的竞争结果不是市场主体或者政府两者中的胜者将对方排除乃至绝对压制，而应当形成彼此相互学习的良性竞争关系，避免数据资源的垄断利用。市场主体在此竞争中试图超越既有的商业模式，在规则之外另辟蹊径或者游走在规则的灰色地带，通过技术创新从数据资源中获取更多利益。政府则试图引导和矫正市场主体的数据资源利用行为，使之不损害公共利益和个体权益，并创造正向的利益价值。
良性竞争关系形成的前提是参与竞争者的能力均衡，因而要求政府具有与市场主体相当的数据资源驾驭能力，但就现实而言，政府显然尚不具备技术上的行为能力。若是政府规制停滞于工业社会的命令控制模式的窠臼，单凭法权正当性和有限实质理性，不会改变与市场主体的数据能力的竞争差距，规制有效性必将持续削弱，甚至出现恣意的不当干预。政府在信息时代必须克服命令控制规制模式惯性，发展规制中的反身性，即增进规制者与被规制者之间以及规制者内部的互动、学习：一方面，给予市场主体必要的自主空间实现技术创新和达成规制目标的自由；另一方面，提高如何运用规制的学习能力，“使其在被规制者面前不至于成为‘外行’”，换言之，被规制者若是依靠算法来驾驭数据资源，那么政府同样应当学习并掌握这样的方法。
数据本身不会产生价值，数据按照一定目的被识别、筛选、加工和使用才会转变为创造商品、服务的要素资源。信息时代呼唤政府的智慧规制，将海量数据转化为促进公共利益的数据资源，实现与市场主体的良性竞争，这就需要一个挖掘数据价值、服务社会性规制决策的工具——算法。
（一）算法的规制工具属性
算法较为权威的定义是，“通过所掌握的信息使算法使用者得到某一针对性问题的答案，或掌握输出信息的一系列指令的策略”，“其核心是按照设定程序运行以期获得理想结果的一套指令”。由此可见，算法本身是一项客观的科学技术，同时又预设了人的主观目的：针对性的问题领域、欲获取的答案和理想结果。换言之，算法具有鲜明的工具属性，可以被不同类型的主体利用以实现其目标、创造价值。算法已被运用在食品、治安、环境、自然灾害等涉及公共安全和严重负外部性的社会性规制领域。政府在算法模型中设定相应权重比例的数据处理标准，输入实时获取的生产经营、交通流动、气象变化、地质水域等原始数据，自动获得结果，作为风险防控、执法对象识别决策的重要参考依据。
就算法本身的工具价值而言，“算法的价值全部体现在它的速度上”，这与规制工具追求的高效标准全然契合。数据资源产生并服务于人，但人脑有限的算力远不足以完成海量的数据转化任务，须借助具有瞬时数据处理能力的算法。算法正是凭借其数据处理的速度优势成为信息时代最具影响力和标志性的先进生产力。政府运用许可、标准和信息等传统规制工具，需要依靠大量人工对事实、规范进行比较才能做出决策判断，数据的输入、识别、比较和输出都离不开人的要素。算法则在很大程度上摆脱了人工依赖，数据输入、明确的决策指向都可以由算法在瞬间自动完成，大大降低了规制机构和规制对象的人力、物力和时间成本。尤其得益于计算机、互联网等硬件设施的发展，算法正日趋智能化，超越了以计算机程序为主的形式，算法自身也可以进行深度自主学习，演化为更高级的、智能化的算法，在精准度、全面性、自动化和自我完善等评价维度上具有超越专业人工决策的潜力。
规制是政府机构对规制对象作出有法律效力的决策过程，算法的架构和决策特征可使之深度融入政府规制的运行，增强规制权力的实效：一方面，算法是一个架构，“通过搭建复杂生态系统而获得的对人类行为的支配力量”。无论规制对象主动选择进入还是被动信息识别，只要符合算法设定的条件，主体的数据就会进入算法的运算程序，最终给政府提出实施规制的指示性结论，其行为和利益在很大程度上受到算法支配。算法与法律、标准在架构特点上颇具相似性，只要符合其预设的调整范围，便能够产生评价和指引主体行为的权力。另一方面，算法接近于决策过程。算法预设规制的目标和识别、分析、划归规制对象及其行为的各项参数，规制对象的数据经算法运行得出的结论直接指向了规制决策，政府出于行政程序约束或者对算法的信任乃至依赖，将算法结果等同于决策本身。
此外，政府可以将规制目标嵌入到市场主体的算法，例如为避免未成年人沉迷于网络游戏等娱乐型应用程序，政府可以要求经营者设定防沉迷算法，或者直接将防沉迷算法植入到后者的算法中。算法因此以其强劲算力及与规制权力的深度融合，能够全面影响福利、风险的分配过程，正深入教育、医疗、信用评价、公共治安、卫生管理乃至刑事量刑等诸领域。
（二）算法规制工具的功能悖论
算法规制工具具有正功效的同时亦存在负面影响。算法规制工具的效率优势构成其正当化的主要根据，但效率之外还应全面审视算法在多大程度上满足有效性、高效性、公平性、合法性和正当性等规制工具评价标准。政府运用算法规制工具能够在短期内以较低成本执行规制任务，但若算法不能较好实现规制目标，对不同类型主体尤其弱势群体产生实质不公平，结果无法获得公众信任，或者算法缺乏法律依据甚至违反法律的适用，将严重地削弱算法因效率获得的规制工具优势，产生规制工具的功能悖论。
首先，算法简化了规制干预的过程，但忽略了规制本身的复杂性和规制对象的丰富性。即便算法日益完善的当下，知识的高度符号化、再符号化以及运行结果的语义解释过程等算法运行的固有规律，致使规制当中的知识、意义发生一定程度流失，无法全部反映规制中具体问题的本来面貌。此外，每一项算法依托各自适用的最佳场景，政府将之一一对应加以适用抑或不做区分地统一适用均会影响规制效果。因此，算法对规制问题的技术性简化有碍于对问题的全面把握，不利于规制中知识、经验的充分运用。
其次，算法可以减少规制的恣意，预防规制权力滥用，但亦削弱了法律决断的权威。传统规制工具强调法律上的因果关系，其中包含大量人为判断因素，为规制权力的寻租和滥用留有灰色空间。算法则运用数据、参数标准的相关性思维，经算法得出的结果被认为具有技术中立的特征并且对决策有实质的指导意义，限缩与规制本身无关的人为干预空间，有利于预防规制权力滥用，但规制中人的要素弱化在一定程度上会削弱法律决断的权威。毕竟“权威创造了法律”，作为国家干预过程，规制决策是由经法律授权的政府及其工作人员基于社会共识和专业知识做出，由此构成权威的正当性基础。规制决策过度依赖算法规制，弱化人的要素，会侵蚀规制对象对法律及其决策的信服。
再次，算法有助于减少规制中的人为错误，但算法的错误会造成更严重的权益侵害。传统规制由人工处理海量数据，并据此做出规制决策，百密难免一疏，因工作人员过错致规制对象的权益受损，但经事后的纠错、赔偿和问责机制可以获得一定程度补救。算法可以避免个案中人为过失造成的不当规制决策，预防个案规制中的不公正和事后的程序消耗，但不存在理想中的完美算法。归根结底，算法是人创造的规制工具，算法智能化虽然使之具备一些自我优化的能力，但仍存在一些风险使得算法本身存在瑕疵，包括但不限于算法自身适用初期的不完备，以及所适用领域的场景和风险变化，甚至不排除算法设计中被人为加入的不正当参数设置。算法中某一瑕疵而做出不当规制决策导致的权益损害规模是巨大的，带来的社会成本远高于人为规制瑕疵的成本。此外，政府倾向于将算法瑕疵导致的损害归责于规制对象，后者提供数据中任何不经意的过失都将使政府减责甚至免责，例如，美国印第安纳州在3年内拒绝了一百万多公众的医保、食品券和现金福利补助申请，仅仅因为试用的资格认证计算机系统将申请流程中的任何过失统统归为“未予配合”。
最后，算法推进法律的个性化，亦让规制更为精准，但可能危及规制的公平性。随着法治建设本土经验的累积，规制立法正由粗放型向精细型方向发展，旨在构建精密的法律秩序，给市场主体和公众更明确的法律指引。在工业社会，人的有限信息处理能力使得规制立法到执法的运行无法达到十分细致程度，况且法律自身的概括性在一定程度上牺牲了规制的类型化和精确化。算法规制工具的不断智能化，“可能会重新定义法律规则的最优复杂性和完善化”。申言之，算法规制工具扩展了精细型立法的空间，法律能够给予特定主（群）体以量体裁衣式的行为指引。但是，算法实施的精细化规制将规制对象划分为若干群体，并贴上标签，随之而来的是更多的追踪监督和执法活动。这种标签化的规制方式与法律平等理念存在价值冲突，也存在分化社会、破坏社会包容团结的规制价值。
此外，正如市场主体运用算法会产生一系列负影响，政府将算法作为规制工具运用同样会出现数据滥用、侵犯规制对象和个人知情权、个人信息权益以及权利救济困难等问题。因此，算法规制工具是否符合公平正义必须按照法治标准予以重新检验。
算法规制工具助力政府迎头赶上数据化浪潮，在提高规制效率的同时，也带来了一系列影响规制有效、公平的负效应。法律应当发挥技术促进和权力限制的双重功能，以促进算法规制工具向“善治”转变：一方面算法规制工具应当嵌入规制权力的运行，使政府适应信息时代的数据规制环境；另一方面，权力止于权利，应当以法治理念和方法规训算法规制工具，防止算法权力溢出法律边界，损害规制对象的合法权益。算法技术和规制环境都处于不断变化发展的过程，必须明确政府运用算法进行规制应遵守的法治要求，以此“把握支持性结构与适应性流变之间的平衡”。
首先，平衡算法规制工具与人的主体性之间的关系。现代政府的任务应是合法性和公共利益双重任务的平衡。算法嵌入规制权力是政府规制适应信息时代的规制环境调整的必然选择，借助算法规制工具充分利用公共数据资源，发挥其正效应，以此增进规制的公共利益。然而，当算法嵌入规制权力，其运行结果直接指向决策实质内容，由此产生的两个基本问题是：算法是否取代人成为规制决策的中心？算法的本质是否从工具属性转变为控制规制与被规制对象的更高主体角色？任由算法主导规制会放大算法工具的负效应，后果便是以技术中立之名侵蚀稳定社会关系赖以建立的主体性秩序基础，忽视对人的幸福和权利优先的追求，消减规制的伦理价值根基，损害政府规制的正当性。政府运用算法规制工具应定位于促进公共利益的必要手段，强化算法规制中人的主体性。换言之，应当将体现人主体性的内容作为算法规制法律关系构建的基础，以规制主体的公权力责任限定和规制对象的权利维护为着力点。
其次，正当程序原则应当贯彻到算法规制工具运用的全过程。运用算法进行规制涵盖从算法模型确立到针对个案作出法律决定的全过程，仅据某一算法自身宣示的技术中性和科学理性尚不足以证成相关法律决定的正当性。传统规制可将个案事实、规范依据和决策论证进行公开，使权益受影响者审视规制的合法性、合理性，进而获得事后救济。算法的技术语言和自动运算特征使规制过程处于“技术黑箱”之中，严重削弱了规制的公开性，并引发公众对规制决策的质疑和权利救济困难。在规制中，“不仅要主持正义，而且要人们明确无误地、毫不怀疑地看到是在主持正义”。解决之道在于将法律正当程序的要求引入算法规制工具。正当程序原则对算法规制工具控制的首要要求是确保算法的公开透明和可解释性，将算法视为用技术语言表达的“法律”，政府应当在规制中把算法转化为公众可理解的自然语言并予以公开，在事前告知规制对象算法对其权益的影响，保障规制对象的知情权。作为一种持续使用的规制工具，算法对共同善的敏感程度高，自身也在快速迭代完善，需要在公开透明基础上进一步强化对某项算法的价值辩论。公众基于对算法的官方解释和实际运行效果可以质疑算法的合理性，进而提出优化的建议，政府应及时予以回应。此外，还应当确认受算法规制影响的规制对象获得救济的途径，提供行政和司法程序审查规制目标和规制结果之间匹配度及规制对象是否被公正对待。
最后，立法上应采取严格审慎而不失灵活性的立场。作为规制工具的算法应当区别于市场主体的算法：前者影响公众利益的广泛程度和权益侵害的严重性往往大于后者，而且与满足后者创新发展价值需求相比，前者更侧重安全。因此，立法上应对算法规制工具持严格审慎的立场，设置更高的算法合理化要求，严格约束算法规制工具的开发、运行、决策、适用各阶段的行为，明确算法规制工具开发者以及作为使用者的政府的法律责任。严格审慎的立场并不意味着法律规范过于细致，而是应当保持法律规范的灵活性，法律规范在事实上也无法对算法规制工具的技术细节提出全面的规范要求，面对复杂多变的算法技术，立法只能针对行为发挥框架性约束的功能，以保持法律自身的稳定性。为实现严格审慎和灵活度的双重立法目标，对算法规制工具应当进行国家层面的标准化，以便于修订带强制性的标准对算法规制工具加以约束。因此，对于算法规制工具可以在法律上规定算法规制工具国家标准，包括算法规制工具的内容、制定主体和程序以及标准的执行，同时对算法的审核、查验、可解释性和可测试性等方面提出更为详细的要求。
算法规制工具的功能悖论表明，既需要从算法规制工具的内部完善算法的运行，充分发挥算法工具的效率优势，但又不能盲从算法机器的自动化结论。规制目标的实现最终还是依赖“以人为本”的决策，需要通过算法之外“人”的因素来校正算法结论可能存在的偏差，补足算法规制工具的法律决策权威。概言之，运用算法进行规制是从算法生成到决策适用的全过程法治化，应当构建符合法治要求的制度框架。
（一）算法规制工具的内部优化
就算法规制工具本身的创建、使用和维护而言，相关责任在政府和算法开发者之间分配的先决问题是，算法能否被用于特定的规制领域，即此领域的决策能否以及在多大程度上依赖于人的判断，将决定某项算法能否被创建。算法规制工具的适用应当秉持适用领域的区分原则。在维护市场秩序的规制领域，当算法被应用于分析市场主体的行为，诸如计算市场垄断程度、境外商品倾销或不当补贴、驰名商标社会认知度、虚假广告的实际影响等原本需要调查、统计和计算的问题，算法规制工具主要发挥提高规制效率的功能，不存在合法性障碍，立法可以授权、鼓励地方政府先试先行。但是，对于贫困救济、教育机会、违法犯罪等主体资格认定问题，因涉及对个人权益、公共资源的直接分配，应当严格限制算法在决策中的运用。此外，随着人工智能技术的发展，算法自主学习能力随之增强，算法可能不受限于人工设计的运算范畴，由此产生算法规制工具脱离政府控制的风险，损害规制中的法律价值目标，产生决策追责和权利救济困难，所以应当严格限制具有人工智能的算法运用于政府的规制活动。
算法的创建和维护运作具有较高的技术门槛，政府需要将其委托给专业开发者来完成。在政府和开发者之间形成技术服务合同关系，算法开发者按照合同约定的绩效指标完成政府提出的自动化处理规制项目，政府支付相应的费用。合理的绩效指标不仅关系到对合同履行的评价，而且与公共利益等规制目标的实现相关。绩效指标的设定除了应当注意算法效率和经费支付的一般合同问题，还应纳入算法的可解释性、对开发者伦理的要求和误差率。此外，受合同履行影响利益最广泛的并非合同当事人，而是算法规制工具的对象。如果算法存在瑕疵会侵害广泛的公众利益，合同应对政府和开发者估测和处理公众为此付出的代价作出合理的安排。
但是，技术服务合同仅能分配合同双方的利益，不能有效应对算法瑕疵导致的昂贵社会成本。为防止此类情况的发生，尚须进行算法规制工具的风险预防和纠正制度设计。为此，应将风险评估和预防贯穿算法规制工具的使用过程。例如，强制要求算法规制工具在被大规模运用前，在一定范围内进行测试。在算法规制工具实际使用中，由政府、开发者及独立的第三方机构定期评估算法规制工具失灵的风险，确保算法规制工具的技术安全。同时，算法是否造成规制对象的歧视或不公平对待，只有规制对象最清楚，规制对象对算法规制效果的反馈评价应当作为监测算法运行的关键标准。因此，当政府接到公众投诉时，应当及时检测算法运行是否安全可靠，避免或减轻因算法瑕疵对规制对象权益造成损害。
（二）算法规制工具的决策校正
在公平、正当、有效等方面，算法规制工具存在功能缺陷和价值扭曲的风险，运行结果往往直接指向规制决策的实质内容，进而加大规制效果偏离目标的风险。规制是以社会主体为中心的持续法律决策，优化算法规制工具的运用效果，除了算法内部优化和监测算法规制工具本身，还要在决策环节依靠体现“人”要素的“职责—权利”法律机制来补足算法的缺陷，以法律价值校正算法的工具价值。
规制主体应当确立算法规制工具的决策辅助原则，划定政府运用算法进行规制的权力边界，明确规制决策主体的法律责任。一方面，算法运行结果的任何规制决策指向仅是政府规制决策的证据，而证据自身的客观科学性或者关联性不足以替代规制的法律决断，算法运行的结果须经政府的人为审查和综合价值判断才能被确认，作为规制决策合法性、合理性的证成依据。在规制决策中，算法规制工具的结论不得替代政府的独立判断和分析，更不得自动执行算法结论。另一方面，信息时代的算法规制工具并未改变法律经解释才能适用的原则，规制决策者应当根据规制法律和事实充分说理和论证，将算法结论融入其中。当出现因算法瑕疵导致的规制对象权益受损，作出决策的政府不能将算法的错误作为规制决策失误的挡箭牌，决策的责任人应承担相应的法律责任。换言之，算法规制工具可以减轻行政人力负担和时间成本，但同时课以规制决策者更严格的审查义务，需要对算法规制工具和个案决策进行双重审查。
受规制决策影响的对象有权利质疑算法规制决策的合法性与合理性。算法规制工具有科学的技术支撑，经过复杂模型的计算得到合理的结果，但科技只能在有限范围内认识复杂流变的社会问题，算法运行的结果也仅在一般和有限意义上具备合理性。在实践中，规制决策者过度依赖算法运行结果往往也会产生不利后果。当算法开发者和规制决策者均存在失误的情况，应当保障规制对象质疑不当规制决策的权利。就个案的规制决策，在政府和规制对象之间应当建立法律、价值和事实的沟通机制，使政府能够站在法律和理性的立场上认真审视算法规制决策。尤其在政府运用算法规制工具追求决策效率时，更须强化规制对象的申辩、听证、复议等程序性权利。通过规制对象在个案决策中的权利救济，以审验算法的科学合理性，才能使算法这一规制工具日臻完备。同时也能避免政府成为被算法所支配的决策机器。惟此，信息时代算法规制工具才能贯彻“以人民为中心”的政府规制理念，使得规制决策能够融合算法的技术理性和法律及制度背后“人”的理性。
人类社会步入信息时代，技术中心主义让人们越来越相信数字技术的进步必然会使个人和群体决策合理化，算法技术的发展会给出最佳的决策方案，甚至可以让算法自动化决策代替人的独立判断。然而，推崇技术独立价值的技术中心主义者的洪亮声音不应掩盖社会问题复杂丰富的本来面貌，更不能切断算法规制工具与规制目标和法律价值之间的联系，算法规制工具的功能悖论需要在未来实践中进一步探讨。政府作为公共利益和社会正义的代理人，必然要顺应信息时代的规制技术发展需求建设数字政府，通过算法工具驾驭由数据构成的虚拟世界，掌握治理“虚实孪生”世界的钥匙。同时，规制决策者也要走出算法工具的迷思，坚持规制的法律决断本质，在依法治国的框架下，将数字政府与法治政府建设相互融合，用法治规训算法工具，实现算法工具价值与法律价值的双向目标。
《法治研究》热忱欢迎学界朋友的赐稿！
稿件无论采用与否，我们都会在一个月内回复，如未能在限定时间内收到通知，烦请及时联系我们。
·投稿邮箱：
fazhiyanjiu @vip.163.com
·联系电话：
0571-87059288